深度融合记忆：大语言模型的块级参数化记忆
🧭 参数化记忆 · 隐藏层深度融合
LUMIA Lab, Shanghai Jiao Tong University · Shanghai Artificial Intelligence Laboratory
提出块级参数化记忆DFM，训练数据构造检索量降低32倍，并深度融合进隐藏状态，无需在线检索
📌 工作参考价值（5 点）
- ### 对电商 / 广告 / Agent 的可借鉴点
- 在电商导购、广告文案或客服 Agent 中，需要给 LLM 注入领域知识（商品库、活动政策、广告规范）。DFM 提供一种冻结主干的参数化记忆方案：推理时无显式检索步骤，延迟低，比 RAG 更适合高 QPS 线上场景；可训练轻量 memory predictor + fusion 模块，把领域知识压缩进隐藏状态。
- 块级记忆监督是关键技巧：用 chunk embedding 作为预测目标，而非 token 级目标，训练数据构造的检索 query 可减少 32×、检索条目减少 2048×。业务数据量大、离线检索成本敏感时，优先考虑把知识切块并做块级记忆，能大幅降低知识注入成本。
- 门控 cross-attention 融合比输出层插值更深，能让知识影响中间表征；工程上可只插入少数层，冻结原模型，避免灾难性遗忘。适合给已有的推荐/Agent 底座模型做领域适配而不破坏通用能力。
- 可迁移到实时交互场景：让 memory predictor 根据对话或行为前文预测 chunk 级记忆，动态融合到解码过程，省去显式检索模块，简化架构并降低运维复杂度。
面向大语言模型的参数内记忆增强
🧭 LLM 参数化记忆增强综述
The Hong Kong University of Science and Technology · Hong Kong Baptist University
以参数放置与获取时间为两个正交轴，系统梳理部署期 LLM 参数化记忆方法
📌 工作参考价值（4 点）
- 在生成式推荐/对话 Agent 中，用 LoRA 或 prefix 参数封装长期用户偏好、商品知识或交互经验，替代每次拼接长历史，可显著降低 prompt token 与重复编码成本；在线更新 LoRA 可以跨会话沉淀用户兴趣。
- 按数据形态选择参数放置：稳定领域事实/类目属性适合固化在 FFN 或 MLP 层；时序行为、短期兴趣更适合 Attention 或 Hybrid 放置，离线训练 adapter 作为商品/类目记忆库，请求时即插即用。
- 与 ICL 协同：把长期稳定知识放进参数，短期促销、会话上下文仍走 ICL，减少上下文占用；多租户/多活动场景要评估 LoRA 合并时的 interference，避免用户偏好记忆互相污染。
- 购物 Agent 可用 online LoRA/TempLora 把成功决策、用户反馈实时写入参数形成私有记忆，而非无限堆积历史消息，对长会话和跨 session 个性化尤其有价值。
大规模参数化长期记忆模块：独立预训练与解耦扩展
🧭 参数化长期记忆与 LLM 解耦 · 独立扩展 ★ 深度解读
LUMIA Lab, Shanghai Jiao Tong University · Shanghai Artificial Intelligence Laboratory · Tsinghua University
将参数化长期记忆模块扩展至 6.9B 参数、300B 令牌预训练，小 backbone 搭配大记忆在多项基准上超越更大纯骨干模型且总参数更少
📌 工作参考价值（4 点）
- 记忆模块即插即用，适合多领域推荐系统快速迁移：预训练好的通用或领域记忆可以直接插在冻结的推荐模型（如同 backbone）上，仅需少量计算即适配新领域，避免全量微调，显著降低部署成本。
- kNN 分布蒸馏到参数模块，避免在线检索：电商搜索或推荐场景通常需要实时反馈，该方案将检索信号离线蒸馏为参数化记忆，推理时无需外部索引和检索，降低延迟和存储，可直接用于排序或召回的特征增强。
- 小 backbone + 大记忆的参数效率优势：在推荐模型中，可以用相对较小的主网络搭配较大记忆模块，在总参数受限时比单纯扩大主网络更高效，例如为轻量召回模型配备大容量记忆来提升冷门物品或长尾查询的覆盖。
- 记忆训练目标可提升训练数据可追溯性：论文中的抽取式记忆评估表明记忆能更精准还原训练样本，类似思路可用于推荐系统中关键行为或商品的记忆固化，帮助可解释性和合规审查。
MemSFT：用外部参数化记忆缓解大模型领域微调的对齐税
🧭 领域专精 · 外部参数化记忆 ★ 深度解读
Shanghai Jiao Tong University · Shanghai AI Laboratory · Tsinghua University
通过外部参数化记忆和token级动态路由器，在不修改基座模型参数的前提下注入领域知识，完全避免通用能力遗忘
📌 工作参考价值（4 点）
- 记忆训练范式：利用领域数据构建 kNN 检索的 soft label 作为教师分布，结合 KL 散度和交叉熵训练一个独立的 Memory LM，避免直接微调基座模型，可向电商搜索/推荐 LLM 注入商品、规则等新知识而不损害通用对话与推理能力。
- 动态路由器设计：轻量两层 MLP 以基座和记忆的隐藏状态及输出置信度/熵为特征，预测 token 级融合权重；训练时混合领域与通用数据并加入符号正则，自动学习何时依赖记忆，适用于生成推荐理由、推送文案等需要专业性与通用性平滑拼接的场景。
- 记忆复用：同一记忆模块可在共享 tokenizer 的不同规模基座模型上即插即用，无需重训；在电商多模型矩阵中，可一次训练商品知识记忆，供多款 LLM 部署使用，显著降低维护成本。
- 工程成本：训练一个 8B 记忆和路由器的 FLOPs 仅占全量 SFT 的一小部分（如四个基座模型总成本仅 0.22 倍），适合快速迭代注入新业务线知识。
信任边际：大语言模型中参数记忆与检索证据的无训练仲裁
🧭 训练无关的RAG答案仲裁 · 参数记忆与检索置信度权衡
DCST, Peking University
提出TrustMargin，一种无训练即插即用的仲裁层，利用模型自身似然评分选择直接生成或RAG答案
📌 工作参考价值（4 点）
- 在电商问答或商品知识查询中，可利用似然比（TrustMargin）自动判断直接回答与检索增强回答的置信度，无需额外训练，即插即用。
- “参数先验边际”思想可迁移到推荐解释生成：检测模型对检索到的商品属性是否“熟悉”，避免将不常见的属性强行加入解释。
- “证据绑定边际”提供了一种无监督的问题-证据相关性度量，可用于过滤噪声检索结果，提升 RAG 在电商客服、商品描述生成中的可靠性。
- 该方法不依赖特定检索器，可集成到现有 RAG 流水线中，对生成式推荐的答案选择、多路召回结果仲裁具有参考价值。
LoRA的参数记忆定律：量化LLM微调中的精确记忆容量
🧭 参数记忆 · 幂律缩放与相变 ★ 深度解读
Zhejiang University · Alibaba Group
发现LoRA的记忆增益遵循幂律定律，并利用p>0.5的相变阈值设计MemFT优化精准回忆。
📌 工作参考价值（4 点）
- LoRA作为记忆插件：在电商/Agent场景中，需精确记住配置、规则或用户凭证时，可用LoRA模块存储，MemFT方法能在有限秩下显著提升准确率，避免关键token错误。
- 容量预估公式：幂律定律∆L=C·r^α·ℓ^{-β}可帮助在资源受限时快速估算所需的最小秩r，避免盲目分配参数。例如，给定序列长度ℓ，可计算达到目标损失所需的秩。
- 关注关键token：业务中生成式推荐或Agent输出常因个别token错误导致整句失效，借鉴p>0.5的相变思想，在微调时动态分配梯度给低概率token，而不过度优化已掌握的token，可提升整体生成质量。
- MemFT的训练策略：滑动窗口（MemFT-SW）聚焦首次错误位置的上下文，课程学习逐步增加困难样本，这些技巧可直接迁移到其他需要精确生成的任务（如广告文案、商品描述）的LoRA微调中。
PEAM：通过经验内化将具身智能体记忆参数化
🧭 具身智能体经验参数化与持续学习 ★ 深度解读
Northwestern University · Northeastern University · South China University of Technology · Hong Kong Baptist University · Beijing Normal - Hong Kong Baptist University
将智能体经验从检索式记忆转为参数化技能，通过失败-纠正对比学习与隔离式的MoE-LoRA适配器实现持续巩固。
📌 工作参考价值（4 点）
- 经验内部化减少推理开销：在推荐/Agent场景中，可将高频技能或用户偏好直接固化到模型参数中（如LoRA适配器），避免每次推理时检索技能库或长上下文注入，可大幅降低延迟（实验中下降42%）和Token消耗（-85%）。
- 失败-纠正对比训练：利用失败与纠正后的轨迹对进行DPO训练，让模型不仅模仿成功行为，还能辨别纠正前后差异，此思路可迁移到对话Agent、推荐排序中：收集用户负反馈与修正后的正样本，构造对比学习信号。
- 按类别隔离的LoRA适配器防遗忘：在多任务/多领域场景中，为每个类别（如不同商品类目、不同Agent技能）分配独立的LoRA模块，物理隔离参数更新，可天然避免灾难性遗忘，无需复杂正则化。
- 自触发巩固机制：基于失败率统计检验自动决定何时更新模型，无需人工设定任务相关阈值，适合电商推荐等动态环境，根据实时表现自适应调整模型更新节奏。